AP News | 2024-05-07 | 23:57:06

Кейти Пери и Риана не присъстваха на Met Gala. Но изображенията, генерирани от изкуствен интелект, все пак заблудиха феновете

НЮ ЙОРК (AP) — Не, Кейти Пери и Риана не участваха на Met Gala тази година. Но това не попречи на изображения, генерирани от изкуствен интелект, да подмамят някои почитатели да си помислят, че звездите са се появили на стъпалата на най-голямата вечер на модата.

Изображения Deepfake, изобразяващи шепа огромни имена в годишния музей на изкуствата Метрополитън Набирането на средства бързо се популяризира онлайн в понеделник и рано във вторник.

Някои консуматори на обществени медии с орлови очи видяха несъответствия - и самите платформи, като X's Community Notes, скоро означиха, че изображенията евентуално са основани благодарение на изкуствен интелект. Една улика, че вирусна фотография на Пери в рокля, покрита с цветя, да вземем за пример, е подправена, е, че килимът на стълбите съответствува с този от събитието през 2018 година, а не с тазгодишната зелено оцветена тъкан, подплатена с жива зеленина.

И въпреки всичко други бяха заблудени - в това число личната майка на Пери. Часове откакто минимум две генерирани от изкуствен интелект изображения на певицата започнаха да се въртят онлайн, Пери ги разгласява още веднъж в своя Instagram, съпроводени от екранна фотография на текст, който изглеждаше като от майка й, който й прави комплимент за това, което тя смяташе за същинска поява на Met Gala.

„ хаха, мамо, изкуственият разсъдък стигна и до теб, ВНИМАВАЙ! “ Пери отговори в размяната.

Представители на Пери не дадоха отговор незабавно на настояването на Асошиейтед прес за спомагателен коментар и информация за какво Пери не беше на събитието в понеделник вечерта. Но в надпис към обявата си в Instagram Пери написа: „ не можах да стигна до MET, трябваше да поработя “. Публикацията включва и заглушено видео на нейното пеене.

Междувременно подправена фотография на Риана в зашеметяваща бяла рокля, бродирана с цветя, птици и клони, също обиколи онлайн. Multihyphenate в началото беше доказан посетител за тазгодишната Met Gala, само че представители на Vogue споделиха, че тя няма да участва, преди да затворят килима в понеделник вечерта.

Списание People заяви, че Риана е болна от грип, само че представители го направиха не удостоверява незабавно повода за отсъствието си. Представителите на Риана също не дадоха отговор незабавно на настояванията за коментар в отговор на генерираното от AI изображение на звездата.

Въпреки че източникът или източниците на тези изображения е мъчно да се заключи, реалистично изглеждащият декор на Met Gala, който се вижда в доста, допуска, че какъвто и AI инструмент да е бил употребен за основаването им, евентуално е бил подготвен върху някои изображения на минали събития.

Официалният фотограф на Met Gala, Getty Images, отхвърли коментар във вторник.

Миналата година Getty съди водещ генератор на изображения с изкуствен интелект, основаната в Лондон Stability AI, потвърждавайки, че е копирал повече от 12 милиона фотоси от сбирката на Getty със стокови фотографии без позволение. Getty от този момент започва собствен личен AI генератор на изображения, подготвен на неговите творби, само че блокира опитите за генериране на това, което разказва като „ проблематично наличие “.

Това надалеч не е първият път, когато виждаме генериращ AI, клон на AI, който може да сътвори нещо ново, употребявано за основаване на подправено наличие. Изображения, видео и аудио фалшификации на видни фигури, от папа Франциск до Тейлър Суифт, са спечелили доста известност онлайн и преди.

Експертите означават, че всеки случай акцентира възходяща угриженост по отношение на злоупотребата с тази технология — изключително във връзка с дезинформация и капацитета за осъществяване на измами, кражба на идентичност или агитация и даже изборна операция.

„ Преди се смяташе, че да видиш значи да повярваш, а в този момент да видиш не е да повярваш “, сподели Кейси Майерс, професор и шеф на следдипломно образование в Училището по връзки на Virginia Tech – акцентирайки въздействието на генерирания от понеделник AI облик на Пери. „ (Ако) даже една майка може да бъде заблудена да мисли, че изображението е същинско, това ви демонстрира равнището на изисканост, което тази технология има в този момент. “

Докато употребявате AI за генериране на изображения на звезди в грим- считат, че първокласните рокли (които елементарно се потвърждава като подправени на мощно рекламирано събитие като Met Gala) може да наподобяват релативно безобидни, Майърс и други означават, че има добре документирана история на по-сериозни или пагубни използва на този тип технология.

По-рано тази година полово очевидни и злоупотребяващи подправени изображения на Суифт, да вземем за пример, започнаха да циркулират онлайн - което накара X, някогашен Twitter, да блокира краткотрайно някои търсения. Жертвите на дълбоки имитации без единодушие, несъмнено, надвишават звездите и бранителите акцентират особена угриженост за жертвите, които нямат доста отбрана. Изследванията демонстрират, че експлицитните материали, генерирани от изкуствен интелект, извънредно доста вреди на дамите и децата – в това число смущаващи случаи на голи актове, генерирани от изкуствен интелект, циркулиращи в гимназиите.

И в година на избори за няколко страни по света, специалистите не престават да показват и евентуални геополитически последствия, които лъжливите, генерирани от AI материали могат да имат.

„ Последствията тук надалеч надвишават сигурността на индивида – и в действителност визира неща като сигурността на нацията, сигурността на цялото общество “, сподели Дейвид Бронятовски, доцент в университета Джордж Вашингтон и водещ основен откривател на Института за благонадежден ИИ в правото и обществото в учебното заведение.

Използването на това, което генеративният AI може да предложи, до момента в който се построява инфраструктура, която пази потребителите, е сложна задача — изключително откакто комерсиализацията на технологията продължава да пораства с такава бърза скорост. Експертите показват нуждата от корпоративна отчетност, универсални индустриални стандарти и ефикасна държавна регулация.

Технологичните компании значително вземат решение, когато става въпрос за ръководство на ИИ и неговите опасности, до момента в който държавните управления по света работят, с цел да наваксат. Въпреки това през последната година беше реализиран забележителен прогрес. През декември Европейският съюз реализира съглашение по отношение на първите в света всеобхватни правила за ИИ, само че актът няма да влезе в действие преди две години след окончателното утвърждение.